Training-Free Generative Sampling via Moment-Matched Score Smoothing
基于矩匹配得分平滑的无训练生成采样
🧭 训练自由生成采样 · 矩匹配分数平滑
College of Computing and Data Science, Nanyang Technological University
提出一种无训练的交互粒子采样器MM-SOLD,通过矩匹配和分数平滑在CPU上生成高质量样本
📌 工作参考价值(4 点)
- 无需训练神经网络的快速生成:可在CPU上直接应用,避免昂贵的扩散模型训练,适用于电商推荐中低资源或快速原型场景,如生成候选 item 嵌入或用户行为序列。
- 矩匹配保证分布一致性:通过强制样本均值与协方差匹配训练数据经验矩,能保持关键统计特性,可用于推荐系统的数据增强或生成符合业务指标的合成数据。
- 交互粒子系统实现多样性:粒子交互机制天然促进样本多样性,避免模式坍塌,这对生成推荐中探索多样化 item 表示有借鉴意义。
- 方法可扩展至潜在空间:已展示在VAE潜在空间上生成图像,类似思路可用于推荐中的离散 token 生成或 Semantic ID 的低维表示采样。